error in numerical calculation
英 [ˈerə(r) ɪn njuːˈmerɪkl ˌkælkjuˈleɪʃn]
美 [ˈerər ɪn nuːˈmerɪkl ˌkælkjuˈleɪʃn]
数值计算误差
双语例句
- The paper makes mathematical analysis on the causation of error in profile machining, and resolves the problem using altering the method in numerical calculation.
本文对这种加工误差产生的原因进行了数学分析，通过更改数值计算的方法解决这个问题。 - The error analysis shows that the fitting result can be used in the numerical inversion calculation effectively for the light-scattering measurement of the real cell.
误差分析表明：拟合结果可有效地应用于真实细胞光散射测量中的数值反演计算。 - A Method of Removing Bias Error in Convolution Numerical Calculation
消除卷积数值计算中的截尾误差的方法 - The Error Analysis in Numerical Calculation
数值计算的误差分析